# 要添加一个新单元，输入 '# %%'
# 要添加一个新的标记单元，输入 '# %% [markdown]'
# 我发现写到最后，还是学弟写的那种样子。好麻烦啊，感觉应该一天就能写完，但自己在硬拖。


# %%
import torch
import copy
from torch import nn, optim
from dnn_model import Net
from torch.utils import data 


# 训练相关的参数本来应该是服务器发送过来的，包括模型、参数啥的。训练数据应该是本地的。
# 这里为了方便，只模拟联邦学习的效果和逻辑，不模拟联邦学习的真是过程。
# 1. 数据由服务器分成独立同分布，或者非独立同分布。然后分配给各个客户端。而非客户端在本地读取。
# 2. 训练的模型、参数在客户端配置。
# 3. 客户端完成训练过程、服务端完成聚合过程。客户端和服务端只发送和传输模型和优化器的权重参数。完成聚合和分配的通信逻辑。

class FLClient:
    # 接收参数，完成训练。主要是一次训练的参数
    def __init__(self,datapair,client_params):
        # 训练设备、训练数据、训练模型、损失函数----------------------------------------------------------
        self.device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
        self.model = Net().to(self.device)
        self.loss_func = nn.CrossEntropyLoss()
        # 优化器
        # 需要进行参数聚合的Adam优化器
        # self.optimizer = optim.Adam(self.model.parameters(),lr=0.001)
        # 不需要进行参数聚合的SGD优化器
        self.optimizer = torch.optim.SGD(self.model.parameters(),lr=0.01)
        # 带有正则化项的Adam优化器
        # self.optimizer = optim.Adam(self.model.parameters(),lr=0.001,weight_decay=0.000001)
        # 带有正则化项的SGD优化器
        # self.optimizer = torch.optim.SGD(self.model.parameters(),lr=0.01,weight_decay=0.000001)

        # prox本地更新的权重
        if("prox_mu" in client_params):
            self.prox_mu = client_params["prox_mu"]
        else:
            self.prox_mu = 0.0
        # 训练参数---------------------------------------------------------------------------------------
        if("epochs" in client_params):
            self.epochs = client_params["epochs"]
        else:
            self.epochs =1
        
        if("batch_size" in client_params):
            self.batch_size = client_params["batch_size"]
        else:
            self.batch_size=128
        
        # 训练数据预处理。将数据转换成tensor，进行预处理，并传递到目标设备
        self.train_dl = self.process_data(datapair)
        # 每一个round包含多少个iteration
        self.iteration  = self.epochs*(len(self.train_dl))

        print("FLClient Config:","----device:",self.device,"----iteration",self.iteration,"----epochs:",self.epochs,"----batch_size:",self.batch_size)

    
    def process_data(self,datapair):
        x,y = datapair
        # 将数据转换成tensor,为了加快速度，通过共享内存的方式
        x_train_tensor = torch.unsqueeze(torch.FloatTensor(x),1).to(self.device)
        y_train_tensor = torch.from_numpy(y).to(self.device)
        # print(x_train_tensor.dtype,y_train_tensor.dtype)
        train_ds = data.TensorDataset(x_train_tensor,y_train_tensor)
        train_dl = data.DataLoader(train_ds,batch_size=self.batch_size,shuffle=True)
        return train_dl


    def load_model(self,model_state_dict,optimizer_state_dict):
        self.model.load_state_dict(model_state_dict)
        self.optimizer.load_state_dict(optimizer_state_dict)
    

    # 用来测试训练的结果返回准确率
    def test(self):
        self.model.eval()
        correct = 0
        total =0
        with torch.no_grad():
            for features,labels in self.train_dl:
                outputs = self.model(features)
                # print(outputs.shape)
                _,predicted = torch.max(outputs,1)
                total += labels.size(0)
                correct += (predicted == labels).sum().item()

        accuracy = 100*correct/total
        return accuracy


    # 用来训练当前的本地模型。每次训练返回损失值running_loss和running_accuracy
    def train(self):
        self.model.train()
        loss_sum = 0.
        loss_times = 0.
        running_accuracy = 0
        for epoch in range(self.epochs):
            for batch_x,batch_y in self.train_dl:
                # 正向传播
                outputs = self.model(batch_x)

                # 计算loss
                loss = self.loss_func(outputs,batch_y.long())
                loss_sum +=loss.item()
                loss_times+=1
                # 反向传播
                self.optimizer.zero_grad()
                loss.backward()

                # 梯度下降
                self.optimizer.step()
        # print(self.optimizer.state_dict())
        return loss_sum/loss_times,running_accuracy
    
    # 用来训练当前的本地模型。每次训练返回损失值running_loss和running_accuracy。
    # 添加proximate update。在每次更新完成后。
    # 1. 直接更改优化器比较麻烦，尝试对loss_func进行更改。看一下是否能够达到要求
    # 2. 尝试直接修改权重参数
    # 3. 尝试直接继承修改后的优化器
    def train_prox(self):
        # 得到最开始parmlist，作为限制权重的基准
        old_parm_list = []
        for parm in self.model.parameters():
            old_parm_list.append(torch.clone(parm).detach())   
        

        # param_state['old_init'] = torch.clone(p.data).detach()
        self.model.train()
        loss_sum = 0.
        loss_times = 0.
        for epoch in range(self.epochs):
            for batch_x,batch_y in self.train_dl:
                outputs = self.model(batch_x)
                loss = self.loss_func(outputs,batch_y.long())

                # 利用梯度下降过程，完成prox正则化项的计算。
                # 经过验证发现通过+=构造的连续的计算图可以正常进行梯度下降
                for i,parm in enumerate(self.model.parameters()):
                    loss += (1.0/2.0*self.prox_mu * (parm-old_parm_list[i])**2).sum()
                
                loss_sum +=loss.item()
                loss_times+=1

                self.optimizer.zero_grad()
                loss.backward()
                self.optimizer.step()
        # print(self.optimizer.state_dict())
        return loss_sum/loss_times

    
    # 返回当前的模型
    def get_model_state_dict(self):
        return self.model.state_dict()

    # 返回当前的优化器
    def get_optim_state_dict(self):
        return self.optimizer.state_dict()
 